IA & Code : la méthode de SAP pour ne pas « brûler des tokens à l’aveugle » | LeMagIT

LeMagIT - 08/06
SAP utilise désormais massivement la GenAI pour produire ses logiciels. Rencontré lors du Sapphire, son CTO assure que cette évolution ne rend pas ses développeurs obsolètes. Au contraire. En revanche, elle oblige à penser « optimisation » de la consommation des tokens. Un défi technique et financier qui, pour lui, n’est pas à la portée de tout le monde.

LeMagIT : Avec l’augmentation des prix de l’IA, qu’anticipent de nombreux observateurs, SAP va-t-il facturer ses fonctionnalités IA à ses clients sur la base des tokens qu’ils consomment dans vos applications ?

Philipp Herzig, CTO de SAP : Non. Nous ne sommes pas un revendeur de tokens. Notre modèle est différent. Nous partons de la valeur créée par un cas d’usage.

Prenons la clôture financière. Si nous permettons à un client de la réaliser 50 % plus vite, cette amélioration est quantifiable en euros ou en dollars. La valeur absolue varie évidemment selon la taille de l’entreprise, mais notre principe est le suivant : 80 % de cette valeur économisée revient au client, nous en conservons 20 %.

Et c’est avec cette part que nous devons absorber à la fois nos coûts d’infrastructure et celui des tokens… tout en dégageant une marge.

Et vous y arrivez ?

Philipp Herzig : Nous avons déjà déployé cette approche avec un agent d...
[Courte citation de 8% de l'article original]